Fillon sinh ngày 4 tháng 3 năm 1954 ở Le Mans, Sarthe, Pháp. Cha của ông, Michel, là một luật sư dân sự, trong khi mẹ ông, Anne Soulet Fillon, là một sử gia nổi tiếng của người Basque người gốc Basque.[5][6] Em trai út Dominique là một nghệ sĩ piano và nhạc jazz.[7][8]

Fillon nhận bằng tốt nghiệp trung học phổ thông năm 1972. Sau đó, ông học tại Đại học Maine ở Le Mans, nơi ông nhận bằng thạc sĩ về luật công năm 1976. Sau đó ông nhận được bằng Thạc sĩ Nghiên cứu Nâng cao (diplôme d’études approfondies) ngành luật công từ Đại học Descartes Paris.[9]